PAGER: Bridging the Semantic-Execution Gap in Point-Precise Geometric GUI Control
PAGER:弥合精准几何 GUI 控制中的语义-执行鸿沟
🧭 精准 GUI 代理 · 像素级控制
University of Chinese Academy of Sciences · Shanghai Artificial Intelligence Laboratory · China University of Petroleum-Beijing
提出拓扑感知代理 PAGER,通过像素级监督微调与精度对齐强化学习,解决点级精确 GUI 构造问题
📌 工作参考价值(4 点)
- 像素级过程监督数据集:PAGE Bench 包含 224K 过程监督像素动作,可为电商设计自动化、交互式推荐布局等场景提供细粒度操作标注范例,直接用于训练可执行动作语法。
- 精度对齐强化学习:通过状态条件几何反馈缓解 rollout 曝光偏差,该思想可迁移到任何序列决策任务,适合在电商推荐的多步交互中纠正累积误差。
- 拓扑感知依赖规划:将复杂构造任务分解为依赖结构子任务再执行,类似思路可用于电商页面生成时先规划组件关系再渲染,提高结构化输出的准确性。
- 语义-执行鸿沟的警示:提醒在 Agent 开发中,即使语义理解准确率很高,几何级精度缺失仍会导致任务失败,需在设计奖励和度量时引入执行精度指标。